Sự nghiệp của Nguyễn Tất Nhiên thời gian đầu không mấy thành công. Cho đến khi thơ anh được một số thầy giáo gửi đăng báo Sáng tạo của Mai Thảo; rồi Phạm Duy, Nguyễn Đức Quang thấy đó mà phổ nhạc thì mới bắt đầu nổi tiếng.

Vào khoảng năm 1972 hoặc 1973, Nguyễn Tất Nhiên nhận được giấy gọi nhập ngũ vào trường Võ khoa Thủ Đức. Tuy nhiên mới vào Trung tâm 3 Quang Trung, ông đã được cho thôi về vì lý do tâm thần bất ổn.[cần dẫn nguồn]

Sau năm 1975, Nguyễn Tất Nhiên sống ở trong nước cho tới 1981. Trong thời gian này anh học đàn và sáng tác ca khúc với nhạc sĩ Nguyễn Hữu Nghĩa trong bốn năm.

Năm 1980, anh sang định cư tại Pháp, rồi cuối cùng sang Mỹ sống ở Quận Cam. Năm 1987, anh gia nhập Hội Nhà Văn Việt Nam Lưu Vong. Sau anh lấy vợ có tên là Minh Thủy, rồi có với nhau 2 đứa con trai.

Ngày 3 tháng 8 năm 1992, người ta thấy anh nằm chết trong một xe hơi cũ, đậu dưới bóng cây trong sân chùa tại California. Mộ Nguyễn Tất Nhiên nằm trong Vườn vĩnh cửu thuộc nghĩa trang Westminster phía tây Little Saigon (California), và thường được những người du khách Việt đến thăm viếng.